Mehmed II là con trai thứ ba của Murad II (1404 - 1451), vị vua thứ sáu của Đế quốc Ottoman. Ngay từ nhỏ, Mehmed đã là một đứa trẻ khỏe mạnh và lanh lợi, trong khi đó những người anh trước của ông thường hay gầy yếu bệnh tật. Vì vậy, dù mẹ của Mehmed, Huma Hatun chỉ là một nữ nô, Mehmed lại được cha đặc biệt thương yêu và tin tưởng, chính Murad đã lấy tên cha mình là vua Mehmed I (1413-1420) để đặt cho con trai mình, với mong muốn đứa trẻ sau này sẽ làm nên nghiệp lớn như người ông nội của nó.[4] Khi Mehmed vừa bập bẹ biết nói thì Murad đã vời các thầy giáo giỏi nhất nước vào làm gia sư cho con trai mình. Tiếp theo, Murad II sắp xếp cho Mehmed vào học một trường học đặc biệt ở nội cung, đó cũng là nơi học của con cháu của các nhà quý tộc hoặc những đứa trẻ thông minh lanh lợi, con của các tù binh. Việc này nhằm giúp cho Mehmed kết giao với những người bạn tài năng để sau này họ sẽ giúp đỡ ông làm nên nghiệp lớn. Đồng thời, khi bắt đầu trưởng thành thì Mehmed được vua cha cử đi làm tổng trấn tỉnh Manisa tại Tiểu Á để học tập kinh nghiệm trị quốc.[4]